Yemen nằm trong thế giới Ả Rập, trong nửa phía nam của bán đảo Ả Rập, giáp biển Ả Rập, vùng vịnh Aden, và Biển Đỏ. Quốc gia này nằm ở phía nam của Ả Rập Xê Út và phía tây của Oman, giữa vĩ độ 12° và 19°B và kinh độ 42° và 55°Đ.

Một số các đảo Biển Đỏ, bao gồm cả quần đảo Hanish, Kamaran, và Perim, cũng như Socotra ở Biển Ả Rập, thuộc về Yemen. Nhiều số đảo trong số các đảo là núi lửa, ví dụ Jabal al-Tair đã có một vụ phun trào núi lửa trong năm 2007 và trước đó vào năm 1883.

Với tổng diện tích 527.970 km2 (203.850 dặm vuông), Yemen là quốc gia lớn thứ 49 thế giới về diện tích. Quốc gia này có diện tích ngang với Thái Lan và tiểu bang California.

Cho đến khi ký kết hiệp ước hòa bình Yemen, Ả Rập Xê Út trong tháng bảy 2000 biên giới phía bắc của Yemen đã xác định; sa mạc Ả Rập ngăn chặn bất kỳ sinh sống của con người ở đó.Đất nước này có thể được chia thành bốn vùng địa lý chính: đồng bằng ven biển ở phía tây, vùng cao nguyên phía tây, vùng cao nguyên phía đông, và al Rub al Khali ở phía đông.